ArcFace
在2018年發表,在SphereFace的基礎上改進對特徵向量歸一化和角度間隔,強化了類間的可分類性和類間差異及類內的區別。
ArcFace loss:Additive Angular Margin Loss,在特徵向量及權重做歸一化,把特徵值縮在(0,1)之間的小數,更加便捷快速。在對θ加上角度間隔m,這樣的作法比餘旋間隔對角度的影響更為強烈直接。ArcFace是直接在角度空間θ中最大化分類。
使用上可得到的優點
訓練效率較高
比較不複雜
ArcFace不需要使用其搭的Loss function來聯合監督,較容易收斂於不同的訓練資料集。
缺點
模型是較為龐大的架構
訓練時間較久
歸一化(Normalization) VS 標準化(Standardization)
歸一化 將資料的資訊縮放到0和1之間。
標準化 將資料的值縮放成均值為0,方差為1的狀態。
使用上述兩者的優點:
如果數據預先沒有經過歸一化,那麼那些絕對值大的特徵在歐式距離計算的時候起了決定性作用,會嚴重影響訓練時所學習到較多絕對值大的特徵,所以歸一化是為了可以讓每一個特徵對結果做出相同比重的貢獻。
也可以增加模型的收斂速度。